#LLM Adaptation

3 篇

Knowing When Not to Reuse: Conditional Experience Transfer in Autonomous LLM Post-Training

知何时不复用：自主 LLM 后训练中的条件经验迁移

🧭 自主 LLM 后训练经验迁移控制

Alibaba Cloud Computing

提出 BCIT 方法，在自主 LLM 后训练中只授权可迁移的历史更新，减少有害复用并提升同预算下最终模型质量

📌 工作参考价值（4 点）

持续训练或自动更新线上模型时，不要将历史训练更新（数据配比、超参、LoRA 模块）视为无条件成功经验；应记录父模型版本、数据分布、训练阶段，并将每次效果与其来源上下文绑定。
在正式改变权重或晋升模型前，先做有界小规模训练试验，验证候选更新在当前父模型状态下是否仍然有效，避免错误更新进入线上后污染后续训练轨迹。
对已知硬冲突（如数据源、工具 schema、任务定义变化）建立命名规则，在候选生成阶段直接否决，节省算力并降低风险；所有候选共享统一采纳门槛，只有真实观察事件才进入经验记忆。
对 Agent 自动迭代工具调用、prompt 更新或模型微调的场景，可借鉴“条件经验复用”思路：经验不是越多越好，关键是在当前上下文中可行动。

Training | 2026-08-26 | HF Daily | score 7/10

MemSFT：用外部参数化记忆缓解大模型领域微调的对齐税

🧭 领域专精 · 外部参数化记忆 ★ 深度解读

Shanghai Jiao Tong University · Shanghai AI Laboratory · Tsinghua University

通过外部参数化记忆和token级动态路由器，在不修改基座模型参数的前提下注入领域知识，完全避免通用能力遗忘

📌 工作参考价值（4 点）

记忆训练范式：利用领域数据构建 kNN 检索的 soft label 作为教师分布，结合 KL 散度和交叉熵训练一个独立的 Memory LM，避免直接微调基座模型，可向电商搜索/推荐 LLM 注入商品、规则等新知识而不损害通用对话与推理能力。
动态路由器设计：轻量两层 MLP 以基座和记忆的隐藏状态及输出置信度/熵为特征，预测 token 级融合权重；训练时混合领域与通用数据并加入符号正则，自动学习何时依赖记忆，适用于生成推荐理由、推送文案等需要专业性与通用性平滑拼接的场景。
记忆复用：同一记忆模块可在共享 tokenizer 的不同规模基座模型上即插即用，无需重训；在电商多模型矩阵中，可一次训练商品知识记忆，供多款 LLM 部署使用，显著降低维护成本。
工程成本：训练一个 8B 记忆和路由器的 FLOPs 仅占全量 SFT 的一小部分（如四个基座模型总成本仅 0.22 倍），适合快速迭代注入新业务线知识。

LLM | 2026-07-28 | cs.CL | score 8/10

超级调优：激活感知剪枝引导的稀疏微调

🧭 稀疏参数高效微调 · 激活感知

KAUST

复用剪枝中的激活感知重要性分数来固定稀疏可训练参数，提出Super和Supra实现高效微调

📌 工作参考价值（4 点）

Training | 2026-07-10 | cs.CL | score 6/10